Журнал
Научно-технический вестник информационных технологий, механики и оптики
УДК:004.89
Номер:4 (140)
Скачать PDF0 Кбайт
Метод защиты нейронных сетей от компьютерных бэкдор-атак на основе идентификации триггеров закладок
Аннотация:
Предмет исследования. Современные технологии разработки и эксплуатации нейронных сетей уязвимы для компьютерных атак с внедрением программных закладок (бэкдор). Программные закладки могут оставаться скрытыми неопределенное время, пока не будут активированы вводом модифицированных данных, содержащих триггеры. Такие закладки представляют непосредственную угрозу безопасности информации для всех компонентов системы искусственного интеллекта. Такие воздействия злоумышленников приводят к ухудшению качества или полному прекращению функционирования систем искусственного интеллекта. В работе предложен оригинальный метод защиты нейронных сетей, сущность которого состоит в создании базы ранжированных синтезированных триггеров закладок целевого класса бэкдор-атак. Метод. Предложенный метод защиты нейронных сетей реализован путем последовательности защитных действий: выявлении закладки, идентификации триггера и нейтрализации закладки. Основные результаты. На основе представленного метода разработано программно-алгоритмическое обеспечение испытаний нейронных сетей, позволяющее выявить и нейтрализовать закладки для осуществления компьютерных бэкдор-атак. Экспериментальные исследования проведены на различных архитектурах сверточных нейронных сетей, обученных на наборах данных, для таких объектов, как аэрофотоснимки (DOTA), рукописные цифры (MNIST) и фотографии лиц людей (LFW). Снижение эффективности бэкдор-атак (не более 3 %) и малые потери качества функционирования нейронных сетей (на 8–10 % от качества функционирования нейронной сети без закладки) показало успешность разработанного метода. Практическая значимость. Применение предложенного метода защиты нейронных сетей позволит специалистам по информационной безопасности целенаправленно противодействовать компьютерным бэкдор-атакам на системы искусственного интеллекта и создать новые автоматизированные средства защиты информации
Ключевые слова:
Постоянный URL
Статьи в номере
- Исследование дисперсионных свойств конгруэнтного кристалла ниобата лития терагерцовом диапазоне частот
- Исследование влияния наведенных механических напряжений, вызванных герметизацией стеклоприпоем, на значение коэффициента поляризационной экстинкции в двулучепреломляющем оптическом волокне
- Метод дистанционного контроля радиационных параметров космических аппаратов на основе рентгенофлуоресцентного анализа
- Волоконно-оптический амплитудный датчик направления и величины изгиба
- Компенсация внешних возмущений для многоканальных систем с запаздыванием в управлении
- Построение криптографических схем, основанных на эллиптических кривых над рациональными числами
- Алгоритм генерации проектных решений для управления данными и проектно-производственными процедурами на этапах жизненного цикла электронного изделия
- Способ повышения эффективности комплексной обработки данных дистанционного зондирования Земли при решении задач мониторинга пространственных объектов
- Разработка модели обнаружения сетевых аномалий трафика в беспроводных распределенных самоорганизующихся сетях
- Применение FN-корректора с целью повышения качества классификации аудиособытий
- Усиление роли микроархитектурных этапов проектирования встраиваемых систем
- Многомерный двоичный классификатор дерева решений на основе неглубокой нейронной сети
- Организация фаззинг-тестирования многопоточных приложений на основе метода распараллеливания независимых переходов
- Программная инструментальная система создания адаптивных пользовательских интерфейсов
- Облегченная система рекомендаций для анализа социальных сетей с использованием гибридного алгоритма классификатора BERT-SVM
- Метод обнаружения инцидентов информационной безопасности по аномалиям в биометрических поведенческих чертах пользователя
- Моделирование случайных процессов на основе преобразования Карунена–Лоэва
- Управление численной диссипацией гибридного метода крупных частиц в задачах с вихревой неустойчивостью
- Численная модель импульсного подкритического стримерного сверхвысокочастотного разряда для задач плазменного поджига топливных смесей в газовой фазе
- Численное исследование прямой, винтовой и спиральной капиллярной трубок для хладагента CO2
- Восстановление информации в зашумленном канале методом фантомной визуализации со спектральным мультиплексированием в оптическом диапазоне